贾扬清点赞:3K star量的SGLang上新,加速Llama 405B推理秒杀vLLM、TensorRT-LLM 关键词: Llama 405B,AI,模型训练,Chatbot Arena,AI 用来运行 Llama 3 405B 优势明显。 来自主题: AI技术研报 6694 点击 2024-07-27 19:22
大模型常用评测基准汇总 关键词: 大模型评测,大模型评测基准,AI评测,SuperCLUE,C-Eval,Open LLM Leaderboard,Chatbot Arena,GLUE 基于评测维度,考虑到各评测集关注的评测维度,可以将其划分为通用评测基准和具体评测基准。 来自主题: AI资讯 9108 点击 2024-07-23 19:24